Devre Kesici: Modern Uygulamalar için Sağlam bir Hata Toleransı Deseni

Yazılım geliştirme alanında, özellikle mikroservis mimarilerinde ve dağıtık sistemlerde, uygulama direncini sağlamak çok önemlidir. Bileşenler arızalandığında, zincirleme arızaları önlemek ve kararlı, duyarlı bir kullanıcı deneyimi sürdürmek hayati önem taşır. Devre Kesici deseni, bu tür senaryolarda hata toleransı ve zarif bir şekilde işlevsellik azaltma (graceful degradation) sağlamak için güçlü bir çözüm olarak ortaya çıkar.

Devre Kesici Deseni Nedir?

Devre Kesici deseni, devreleri aşırı akımın neden olduğu hasardan koruyan elektrik devre kesicilerinden esinlenmiştir. Yazılımda, başarısız olabilecek işlemler için bir vekil (proxy) görevi görür ve bir uygulamanın başarısız olması muhtemel bir işlemi tekrar tekrar yürütmeye çalışmasını engeller. Bu proaktif yaklaşım, kaynak israfını önler, gecikmeyi azaltır ve nihayetinde sistem kararlılığını artırır.

Temel fikir, bir servis sürekli olarak yanıt vermede başarısız olduğunda, devre kesicinin 'açılması' ve o servise daha fazla istek gönderilmesini engellemesidir. Belirli bir süre sonra, devre kesici 'yarı açık' duruma geçer ve sınırlı sayıda test isteğinin geçmesine izin verir. Bu istekler başarılı olursa, devre kesici 'kapanır' ve normal çalışmaya devam eder. Başarısız olurlarsa, devre kesici açık kalır ve döngü tekrarlanır.

Devre Kesicinin Durumları

Devre kesici üç ayrı durumda çalışır:

• Kapalı (Closed): Bu normal çalışma durumudur. İstekler doğrudan servise yönlendirilir. Devre kesici, bu isteklerin başarı ve başarısızlık oranlarını izler. Başarısızlık oranı önceden tanımlanmış bir eşiği aşarsa, devre kesici Açık duruma geçer.
• Açık (Open): Bu durumda, devre kesici tüm isteklere kısa devre yaptırır ve hemen bir hata veya yedek (fallback) yanıt döndürür. Bu, uygulamanın başarısız olan servisi yeniden denemelerle boğmasını engeller ve servise toparlanması için zaman tanır.
• Yarı-Açık (Half-Open): Açık durumunda belirtilen bir zaman aşımı süresinden sonra, devre kesici Yarı-Açık duruma geçer. Bu durumda, servise sınırlı sayıda test isteğinin geçmesine izin verir. Bu istekler başarılı olursa, devre kesici tekrar Kapalı duruma geçer. Test isteklerinden herhangi biri başarısız olursa, devre kesici Açık duruma geri döner.

Devre Kesici Desenini Kullanmanın Faydaları

Devre Kesici desenini uygulamak birçok önemli fayda sağlar:

• Artırılmış Direnç: Başarısız olan servislere istek gönderilmesini engelleyerek zincirleme arızaları önler ve uygulama kullanılabilirliğini korur.
• Geliştirilmiş Kararlılık: Uygulamayı, başarısız servislere yapılan yeniden denemelerle boğulmaktan korur, kaynakları muhafaza eder ve genel kararlılığı artırır.
• Azaltılmış Gecikme: Başarısız servislerin yanıt vermesini beklemenin neden olduğu gereksiz gecikmeleri önler, bu da kullanıcılar için daha hızlı yanıt süreleri sağlar.
• Zarif İşlevsellik Azaltma: Servisler kullanılamadığında uygulamanın işlevselliğini zarif bir şekilde azaltmasına olanak tanır ve sadece başarısız olmaktan daha kabul edilebilir bir kullanıcı deneyimi sunar.
• Otomatik Kurtarma: Başarısız olan servisler tekrar kullanılabilir hale geldiğinde otomatik kurtarmayı mümkün kılar ve kesinti süresini en aza indirir.
• Hata İzolasyonu: Sistem içindeki arızaları izole ederek diğer bileşenlere yayılmasını engeller.

Uygulamayla İlgili Dikkat Edilmesi Gerekenler

Devre Kesici desenini etkili bir şekilde uygulamak, birkaç faktörün dikkatli bir şekilde değerlendirilmesini gerektirir:

• Başarısızlık Eşiği: Devre kesicinin ne zaman açılacağını belirleyen eşik. Bu, belirli servis ve uygulama gereksinimlerine göre dikkatlice ayarlanmalıdır. Düşük bir eşik erken devreye girmeye neden olabilirken, yüksek bir eşik yeterli koruma sağlamayabilir.
• Zaman Aşımı Süresi: Devre kesicinin Yarı-Açık duruma geçmeden önce Açık durumda kaldığı süre. Bu süre, başarısız olan servisin toparlanmasına izin verecek kadar uzun, ancak kesinti süresini en aza indirecek kadar kısa olmalıdır.
• Yarı-Açık Test İstekleri: Yarı-Açık durumda geçmesine izin verilen test isteği sayısı. Bu sayı, toparlanan servisi boğma riskini en aza indirecek kadar küçük, ancak sağlığı hakkında güvenilir bir gösterge sağlayacak kadar büyük olmalıdır.
• Yedek (Fallback) Mekanizması: Devre kesici açıkken yedek bir yanıt veya işlevsellik sağlayan bir mekanizma. Bu, önbelleğe alınmış verileri döndürmeyi, kullanıcı dostu bir hata mesajı göstermeyi veya kullanıcıyı alternatif bir servise yönlendirmeyi içerebilir.
• İzleme ve Günlük Kaydı (Monitoring and Logging): Devre kesicinin durumunu, başarısızlık sayısını ve isteklerin başarı oranlarını izlemek için kapsamlı izleme ve günlük kaydı. Bu bilgi, sistemin davranışını anlamak ve sorunları teşhis edip çözmek için çok önemlidir.
• Yapılandırma (Configuration): Kod değişikliği gerektirmeden dinamik ayarlamaya izin vermek için yapılandırma parametrelerini (başarısızlık eşiği, zaman aşımı süresi, yarı açık test istekleri) dışa aktarın.

Örnek Uygulamalar

Devre Kesici deseni çeşitli programlama dilleri ve framework'ler kullanılarak uygulanabilir. İşte bazı örnekler:

Resilience4j ile Java

Resilience4j, Devre Kesici, Yeniden Deneme (Retry), Hız Sınırlayıcı (Rate Limiter) ve Bölme (Bulkhead) dahil olmak üzere kapsamlı bir hata toleransı araçları paketi sunan popüler bir Java kütüphanesidir. İşte temel bir örnek:

CircuitBreakerConfig circuitBreakerConfig = CircuitBreakerConfig.custom()
    .failureRateThreshold(50)
    .waitDurationInOpenState(Duration.ofMillis(1000))
    .permittedNumberOfCallsInHalfOpenState(2)
    .slidingWindowSize(10)
    .build();

CircuitBreaker circuitBreaker = CircuitBreaker.of("myService", circuitBreakerConfig);

Supplier<String> decoratedSupplier = CircuitBreaker
    .decorateSupplier(circuitBreaker, () -> myRemoteService.getData());

try {
    String result = decoratedSupplier.get();
    // Sonucu işle
} catch (RequestNotPermitted e) {
    // Açık devreyi yönet
    System.err.println("Circuit is open: " + e.getMessage());
}

Pybreaker ile Python

Pybreaker, basit ve kullanımı kolay bir Devre Kesici uygulaması sağlayan bir Python kütüphanesidir.

import pybreaker

breaker = pybreaker.CircuitBreaker(fail_max=3, reset_timeout=10)

@breaker
def unreliable_function():
    # Güvenilir olmayan fonksiyon çağrınız buraya
    pass

try:
    unreliable_function()
except pybreaker.CircuitBreakerError:
    print("Circuit Breaker is open!")

Polly ile .NET

Polly, geliştiricilerin Yeniden Deneme, Devre Kesici, Zaman Aşımı ve Bölme gibi politikaları akıcı ve birleştirilebilir bir şekilde ifade etmelerine olanak tanıyan bir .NET direnç ve geçici hata yönetimi kütüphanesidir.

var circuitBreakerPolicy = Policy
    .Handle<Exception>()
    .CircuitBreakerAsync(
        exceptionsAllowedBeforeBreaking: 3,
        durationOfBreak: TimeSpan.FromSeconds(10),
        onBreak: (exception, timespan) =>
        {
            Console.WriteLine("Circuit Breaker opened: " + exception.Message);
        },
        onReset: () =>
        {
            Console.WriteLine("Circuit Breaker reset.");
        },
        onHalfOpen: () =>
        {
            Console.WriteLine("Circuit Breaker half-opened.");
        });


try
{
    await circuitBreakerPolicy.ExecuteAsync(async () =>
    {
        // Güvenilir olmayan operasyonunuz buraya
        await MyRemoteService.GetDataAsync();
    });
}
catch (Exception ex)
{
    Console.WriteLine("Handled exception: " + ex.Message);
}

Gerçek Dünya Örnekleri

Devre Kesici deseni, çeşitli endüstrilerde ve uygulamalarda yaygın olarak kullanılmaktadır:

• E-ticaret: Bir ödeme ağ geçidi kullanılamadığında zincirleme arızaları önleyerek alışveriş sepeti ve ödeme süreçlerinin işlevsel kalmasını sağlamak. Örnek: Küresel bir e-ticaret platformundaki belirli bir ödeme sağlayıcısı bir bölgede (ör. Güneydoğu Asya) kesinti yaşarsa, devre kesici açılır ve işlemler o bölgedeki alternatif sağlayıcılara yönlendirilir veya sistem kullanıcılara alternatif ödeme yöntemleri sunabilir.
• Finansal Hizmetler: Alım satım sistemlerindeki arızaları izole ederek hatalı veya eksik işlemleri önlemek. Örnek: Yoğun alım satım saatlerinde, bir aracı kurumun emir gerçekleştirme hizmeti aralıklı arızalar yaşayabilir. Bir devre kesici, o hizmet üzerinden tekrar tekrar emir verme girişimlerini önleyerek sistemi aşırı yükten ve potansiyel finansal kayıplardan koruyabilir.
• Bulut Bilişim: Bulut hizmetlerindeki geçici kesintileri yöneterek uygulamaların kullanılabilir ve duyarlı kalmasını sağlamak. Örnek: Küresel bir pazarlama platformu tarafından kullanılan bulut tabanlı bir görüntü işleme hizmeti belirli bir veri merkezinde kullanılamaz hale gelirse, devre kesici açılır ve istekleri farklı bir veri merkezine yönlendirir veya bir yedek hizmet kullanarak platform kullanıcıları için kesintiyi en aza indirir.
• IoT (Nesnelerin İnterneti): IoT cihazlarıyla ilgili bağlantı sorunlarını yöneterek sistemin arızalı cihazlar tarafından boğulmasını önlemek. Örnek: Farklı coğrafi konumlarda çok sayıda bağlı cihaza sahip bir akıllı ev sisteminde, belirli bir bölgedeki (ör. Avrupa) belirli bir sensör türü hatalı veri bildirmeye başlarsa veya yanıt vermez hale gelirse, devre kesici bu sensörleri izole edebilir ve genel sistem performansını etkilemelerini önleyebilir.
• Sosyal Medya: Üçüncü taraf API entegrasyonlarındaki geçici arızaları yöneterek sosyal medya platformunun işlevsel kalmasını sağlamak. Örnek: Bir sosyal medya platformu, harici içeriği görüntülemek için bir üçüncü taraf API'sine bağımlıysa ve bu API kesinti yaşarsa, devre kesici API'ye tekrarlanan istekleri önleyebilir ve kullanıcılara önbelleğe alınmış verileri veya varsayılan bir mesajı göstererek arızanın etkisini en aza indirebilir.

Devre Kesici ve Yeniden Deneme Deseni Karşılaştırması

Hem Devre Kesici hem de Yeniden Deneme desenleri hata toleransı için kullanılsa da, farklı amaçlara hizmet ederler.

• Yeniden Deneme (Retry) Deseni: Arızanın geçici olduğunu ve işlemin bir sonraki denemede başarılı olabileceğini varsayarak başarısız bir işlemi otomatik olarak yeniden dener. Aralıklı ağ sorunları veya geçici kaynak tükenmesi için kullanışlıdır. Altta yatan hizmet gerçekten kapalıysa sorunları daha da kötüleştirebilir.
• Devre Kesici Deseni: Arızanın kalıcı olduğunu varsayarak başarısız bir işlemi tekrar tekrar yürütme girişimlerini önler. Zincirleme arızaları önlemek ve başarısız olan servise toparlanması için zaman tanımak için kullanışlıdır.

Bazı durumlarda, bu desenler birlikte kullanılabilir. Örneğin, bir Devre Kesici içinde bir Yeniden Deneme deseni uygulayabilirsiniz. Devre Kesici, servis sürekli olarak başarısız oluyorsa aşırı yeniden denemeleri önlerken, Yeniden Deneme deseni Devre Kesici tetiklenmeden önce geçici hataları yönetir.

Kaçınılması Gereken Anti-Desenler

Devre Kesici güçlü bir araç olsa da, potansiyel anti-desenlerin farkında olmak önemlidir:

• Yanlış Yapılandırma: Başarısızlık eşiğini veya zaman aşımı süresini çok yüksek veya çok düşük ayarlamak, ya erken devreye girmeye ya da yetersiz korumaya yol açabilir.
• İzleme Eksikliği: Devre kesicinin durumunu izlememek, altta yatan sorunları belirlemenizi ve çözmenizi engelleyebilir.
• Yedek Mekanizmasını Göz Ardı Etme: Bir yedek mekanizma sağlamamak, devre kesici açıkken kötü bir kullanıcı deneyimine neden olabilir.
• Aşırı Güven: Devre Kesicileri, servislerinizdeki temel güvenilirlik sorunlarını çözmenin bir alternatifi olarak kullanmak. Devre Kesiciler bir çözüm değil, bir önlemdir.
• Bağımlı (downstream) servisleri dikkate almamak: Devre kesici, doğrudan çağrıyı yapanı korur. Arızaların yayılmasını önlemek için bağımlı servislerin de uygun devre kesicilere sahip olduğundan emin olun.

İleri Düzey Kavramlar

• Uyarlanabilir Eşikleri (Adaptive Thresholds): Geçmiş performans verilerine dayanarak başarısızlık eşiğini dinamik olarak ayarlamak.
• Kayan Pencereler (Rolling Windows): Başarısızlık oranını hesaplamak için kayan bir pencere kullanarak son performansın daha doğru bir temsilini sağlamak.
• Bağlamsal Devre Kesiciler (Contextual Circuit Breakers): Farklı istek türleri veya kullanıcılar için farklı devre kesiciler oluşturarak daha ayrıntılı kontrol sağlamak.
• Dağıtık Devre Kesiciler (Distributed Circuit Breakers): Dağıtık bir sistemde birden çok düğümde devre kesiciler uygulayarak arızaların izole edilmesini ve kontrol altına alınmasını sağlamak.

Sonuç

Devre Kesici deseni, özellikle mikroservis mimarilerinde ve dağıtık sistemlerde, dirençli ve hata toleranslı uygulamalar oluşturmak için temel bir araçtır. Zincirleme arızaları önleyerek, gecikmeyi azaltarak ve zarif işlevsellik azaltmayı mümkün kılarak, uygulama kararlılığını artırır ve kullanıcı deneyimini iyileştirir. Uygulama ayrıntılarını dikkatlice göz önünde bulundurarak ve yaygın anti-desenlerden kaçınarak, daha sağlam ve güvenilir yazılım sistemleri oluşturmak için Devre Kesici deseninden etkili bir şekilde yararlanabilirsiniz. Küresel uygulanabilirliği, onu çeşitli ve uluslararası bir kullanıcı tabanı için tasarlanmış herhangi bir uygulama için kritik bir husus haline getirir. Devre Kesici desenini anlamak ve uygulamak, modern yazılım mühendisliği uygulamaları için çok önemlidir. Geliştiriciler, potansiyel arızaları proaktif olarak ele alarak, dağıtık bilişimin kaçınılmaz zorluklarıyla başa çıkmak için daha donanımlı sistemler oluşturabilirler.